#быстрый инференс

'Salesforce представила Moirai 2.0 — компактную и быструю модель для прогнозирования временных рядов, занявшую первое место в GIFT-Eval. Модель сочетает производительность, устойчивость к пропускам в данных и удобство интеграции в бизнес-процессы.'

OpenBMB представила MiniCPM4 — ультраэффективные большие языковые модели, оптимизированные для edge-устройств, с разреженным вниманием и быстрым инференсом, превосходящие конкурентов при меньшем объёме данных.